代表性或获得融资Ai项目研究之Surge Ai

代表性或获得融资AI项目研究之Surge AI

按：来源一： X 上 AI 领域的 100 家行业内最有实力、发展最好、得到投资界和消费者认可的 AI 企业；来源二：融资的项目作一个专题研究：1、融资了，说明得到资本界看好，可能是一个好的方向和项目；2、通过研究它们，可以了解外界或圈内人对这个行业的判断，是一种研究AI发展趋势的捷径和正确的路；3、基于X是目前国外信息最集中和更新快的平台，还依托于此来研究相应的融资项目；4、基于国内WEB3媒体链闻快讯-AI版块搜集的获得融资的AI项目。

PANews 7月31日消息，Scale AI竞争对手Surge AI洽谈按250亿美元估值融资。Surge AI 在2024年的营收达12亿美元，超过了Scale AI。据知情人士透露，该公司的投资者包括A16Z、Warburg Pincus。

Surge AI
，
@HelloSurgeAI，
Human data for AGI. Our mission: to raise AGI with the richness of human intelligence — curious, witty, imaginative, and full of unexpected brilliance.
AGI 的人类数据。我们的使命：用人类丰富的智慧来提升通用人工智能——好奇、机智、富有想象力，并充满意想不到的才华。
科技surgehq.ai2020年6月加入，
142 正在关注，
5,359 关注者，

@HelloSurgeAI
·
6月24日
小而专注的团队可以取得令人难以置信的成就——为我们所建立的东西感到非常自豪！https://theinformation.com/articles/little-known-startup-surged-past-scale-ai-without-investors

@HelloSurgeAI
·
8月 3， 2024
奥运会？没关系。
还有一场更激动人心的比赛正在进行中😎恭喜我们所有 Google 的朋友！

你怎么知道 Gemini 真的更上一层楼？因为正如 Demis 所说，它是“与第三方评估者盲测中最受欢迎的聊天机器人”😎
🪅恭喜我们所有的 Google 朋友！🪅

Bard 现在被称为 Gemini;带有 Ultra 1.0 的 Gemini Advanced 已经推出！它是第三方评分者盲测中最受欢迎的聊天机器人。它现在可以在 Android 和 iOS 上的移动设备上使用。玩得开心！x.com/Google/status/...

祝贺 Meta AI 在 Llama 2 上取得的巨大成就！
我们很自豪能够加速和推动下一代人工智能和法学硕士的发展，并很高兴看到 Llama 的更广泛采用以及生态系统中发生的深度创新。
Llama 被用于各种进步，例如多模态模型、安全方法和 LLM 的更新评估技术。
现在有 3,500 个基于 Llama 2 模型的企业项目启动，GitHub 上有 7,000 个基于 Llama 构建或提及 Llama 的项目：

让法学硕士可靠是一项艰巨的任务。
但这是许多 LLM 研发工作的重点。
让我们来看看如何让 LLM 变得可靠：
在 Surge AI，我们与顶级 AI 公司合作，以提高 LLM 的可靠性。
这项工作对于在更高风险的领域实现更广泛的适用性至关重要。
可靠性不仅侧重于让模型在细节和质量方面输出用户想要的东西，还要确保模型不会产生不需要的输出（例如，有毒内容）。
目前提高可靠性的许多努力都集中在临时方法和提示工程上。最近，人们正在努力开发一个更系统的框架，以提高训练模型时的可靠性。
这引起了人们对红队的极大兴趣。红队处理通过对抗性提示识别法学硕士中的风险。它不仅应用于 Claude 和 ChatGPT 等通用 LLM，还应用于 Llama Code 等更新的代码 LLM。
红队的挑战在于，如果做得不好，可能会导致 LLM 过度拒绝，并可能导致糟糕的用户体验。此外，现实情况是，红队需要与法学硕士合作的深厚专业知识。
我们深信，为了让 LLM 更安全、更有用、更可靠，全面的红队至关重要。但你不需要从我们这里听到这个。许多大型 LLM 公司也公开表达了对红队的巨大兴趣。
如果您正在寻找培训法学硕士和红队方面的深厚专业知识，请联系我们，了解我们的世界级团队如何提供帮助：http://surgehq.ai/rlhf

世界上最强大的 LLM 接受 Surge AI 的 RLHF 训练。其中一些模型包括代码 LLM，这将对 AI 的进步产生巨大影响！让我们看看代码 LLM 的一些最新发展：基础代码 LLM - 研究表明，基础代码 LLM 对于实现更高级的 LLM 应用程序所需的强大代码理解和代码生成功能至关重要，这些应用程序从个性化代码助手到 AI 驱动的调试工具。什么是好的代码 LLM？这实际上与数据质量有关。与其他类型的通用 LLM 一样，高质量数据是训练代码 LLM 的关键。让我们看看代码 LLM 的一些最新发展以了解更多信息。代码 Llama - 我们可以从最近发布的名为 Code Llama 的代码 LLM 中学到很多东西。Code Llama 利用特定于代码的数据集，但还有一个名为 Code Llama - Instruct 的变体，它利用 Llama 2 中使用的专有指令调整和自指导数据集来继承指令遵循、有用性和安全性属性。代码生成结果 - 其他代码 LLM（如 AlphaCode 和 StarCode）仅使用代码进行训练，而 Code Llama 则利用基础 Llama 2 模型。这些模型在描述到代码生成基准上进行评估。代码密集型数据集是增强代码生成结果的关键。事实上，即使是 Code Llama 7B 在 Python 编码基准和多语言评估方面也与 Llama 70B 相比或优于 Llama 70B。红队 - 与通用法学硕士类似，代码法学硕士也可以从红队中受益，红队涉及在编码环境中通过对抗性提示来识别风险。例如，它可以帮助防止 LLM 生成恶意代码。虽然这对于高风险应用程序有益，但它可能会导致 LLM 过度拒绝，从而导致某些领域的用户体验不佳。很明显，仔细关注构建高质量数据集如何有助于训练最先进的代码 LLM、启用其实用性并获得所需的功能。如果您在训练代码 LLM、红队或收集高质量数据集方面需要帮助，请联系我们的团队：https://surgehq.ai/rlhf

法学硕士研究中最具挑战性的方面之一是评估。

以下是我们基于过去和正在进行的研究的一些观察：

在 Surge AI，我们为微调和 RLHF 以及封闭和开源 LLM 提供人工评估。

在与 LLM 合作时，人工评估是一项具有挑战性且耗时的工作，尤其是在考虑发布或部署它们时。

已经提出了许多自动和手动方法来正确评估法学硕士。

对于更简单的任务，可以使用开箱即用的基准测试或指标进行测试。在某些情况下，研究人员还依赖法学硕士驱动的评估器。

然而，在评估更复杂的任务和生成的输出的 LLM 时，使用开箱即用的基准测试或依赖基于 LLM 的评估器变得具有挑战性。

LLM 评估需要大量的创造力和强大的方法，在许多情况下需要深厚的领域专业知识。

LLM 研究人员如何进行人工评估，有哪些考虑因素？

鉴于法学硕士涵盖的用例范围广泛，研究人员和从业者评估法学硕士的不同方面，如安全性、有用性、创造力和许多其他特征。

这很难通过标准化评估来实现。出于这个原因，人类评估在法学硕士中变得更加普遍。

人工评估需要通过人工标记器评估法学硕士的性能，这也带来了自身的挑战，例如一致的标记和复杂任务的标记困难。

具体来说，由于以下因素，人工评估可能不可靠：

• 正在评估的提示可能不够全面，无法涵盖所有可能的情况

• 评分者也可能有不同的偏好，这可能导致同一代人获得不同的评分

• 评估指南可能有解释余地，这可能导致评估人员对同一代人给予不同的评级

• 由于界面或仅仅是这些 LLM 生成的代数类型，可能很难比较文本生成模型的代数

我们与顶级法学硕士公司合作，帮助解决所有这些人工评估挑战以及更多挑战。
如果您在对法学硕士进行高质量的人工评估方面需要帮助，请在此处联系我们的团队：https://surgehq.ai/rlhf

什么是 SFT 数据，它在最先进的法学硕士中扮演什么角色？
RLHF 背景下的监督微调（SFT）处理使用演示数据进一步调整初始语言模型。
在 Surge AI，我们为顶级 LLM 团队提供 SFT 数据，以微调他们的 LLM。以下是我们观察到的：
SFT 数据通常涉及收集演示数据，包括提示和由人类注释者编写的深入响应，以演示模型应如何响应提示。具体来说，您接受一组命令并获取每个命令的人工编写的响应。
SFT 训练数据集由<提示、理想生成>对组成，用于微调预训练的 LLM 以输出类似人类的响应。因此，假设您正在调整一个由 LLM 驱动的对话系统，那么您需要收集满足该用例的对话式指令/响应数据。同样，如图所示，如果您想要高质量的代码生成能力，您还可以提供指令 + 书面响应作为 SFT 数据的一部分。
这导致了训练 RLHF LLM 的第一个重要组成部分，也称为监督策略。但是，为什么在培训 RLHF LLM 时要经历所有这些过程呢？SFT 的核心思想是为 RLHF 过程提供高质量的初始化。它被一些最先进的封闭和开源 LLM 广泛应用。
要做到这一点，您需要收集大量演示数据，但挑战在于大规模收集高质量和多样化的演示数据。SFT 数据可以由不同的注释者编写，并且可以包含大量噪声，因为响应质量和样式可能因注释者而异。控制这一点是关键。
根据报告的见解，您需要收集数千个示例，以确保您正在调整高质量的 LLM。SFT 数据有助于改进目标领域，从而更好地引导 LLM 满足您的需求。
我们可以帮助您满足 SFT 数据需求！如果您在收集高质量偏好或 SFT 数据方面需要帮助，请在此处联系我们的团队：https://surgehq.ai/rlhf